W10-1. 실무 맛보기 - 강의 노트
10주차 강의 노트: 실무 맛보기 (헬스체크 · 리소스 · 오토스케일링 · 배포 전략 · 관리형 K8s)
- Probe(liveness / readiness / startup)로 Kubernetes 가 "고장" 을 알아채는 방법을 안다.
- requests / limits 의 차이와 OOMKilled 가 무엇인지 안다.
- HPA 가 부하에 따라 Pod 수를 자동으로 조절하는 원리를 안다.
- 롤링 / 블루-그린 / 카나리 배포 전략의 차이를 설명할 수 있다.
- 관리형 Kubernetes(PaaS) 에서 무엇을 클라우드가 맡고 무엇을 우리가 맡는지 설명할 수 있다.
진행: 이론 15분 (이 노트) → 실습 45분 (실습 가이드)
브라우저 → Gateway (guestbook.localhost) → Service → 방명록 Deployment (Pod 3개, ConfigMap + Secret) → Service postgres → PostgreSQL (PVC)
오늘은 이 구조에 운영 기능을 붙입니다.
1. Probe: "살아 있나?" "일할 준비 됐나?"
컨테이너 프로세스가 떠 있다고 해서 정상은 아닙니다. 멈춰 있을 수도(교착 상태), DB 에 못 붙어 있을 수도 있습니다. Kubernetes 는 Probe 로 주기적으로 확인합니다.
| Probe | 질문 | 실패하면 | 방명록에서 쓰는 주소 |
|---|---|---|---|
| livenessProbe | "살아 있나?" | 컨테이너를 재시작 | /healthz (프로세스만 확인) |
| readinessProbe | "요청 받을 준비 됐나?" | Service 에서 빼기 (재시작은 안 함) | /readyz (DB 연결까지 확인) |
| startupProbe | "시작이 끝났나?" | 끝날 때까지 다른 Probe 를 미룸 | (시작이 느린 앱에서 사용) |
readinessProbe:
httpGet:
path: /readyz
port: 8000
periodSeconds: 5 # 5초마다 확인
failureThreshold: 2 # 2번 연속 실패하면 "준비 안 됨"
livenessProbe:
httpGet:
path: /healthz
port: 8000
periodSeconds: 10
failureThreshold: 3 # 3번 연속 실패하면 재시작
잘못된 DB 주소로 배포하면 새 Pod 는 /readyz 가 실패해서 0/1(준비 안 됨) 에 머뭅니다.
7주차의 안전장치(새 Pod 가 준비되지 않으면 옛 Pod 를 내리지 않음)가 "준비됨" 을 이 Probe 로 판단하기 때문에, 기존 Pod 가 계속 서비스합니다.
readinessProbe 가 없으면 Kubernetes 는 프로세스가 뜨기만 하면 준비됐다고 보고, 고장 난 Pod 로 트래픽을 보내고 배포도 끝내 버립니다.
liveness 를 DB 연결까지 확인하게 만들면, DB 가 잠깐 끊겼을 때 멀쩡한 앱까지 전부 재시작되는 사고가 납니다. liveness 는 "프로세스 자체가 살아 있나" 만, 의존성은 readiness 로 확인합니다.
2. 리소스: requests 와 limits
resources:
requests: # "최소 이만큼은 보장해 주세요" → 스케줄링 기준
cpu: 50m
memory: 64Mi
limits: # "이 이상은 못 쓰게 막아 주세요" → 상한선
cpu: 500m
memory: 256Mi
| 항목 | requests | limits |
|---|---|---|
| 의미 | 예약 (이만큼은 확보) | 상한 (이 이상 금지) |
| 누가 쓰나 | scheduler 가 노드를 고를 때 (남은 자리 계산) | 노드의 커널(cgroups) 이 실제로 제한 (1주차!) |
| CPU 초과 시 | - | 느려짐 (스로틀링) |
| 메모리 초과 시 | - | 강제 종료: OOMKilled (종료 코드 137) |
| 단위 | 의미 |
|---|---|
cpu: 1 = 1000m |
CPU 코어 1개. 50m = 0.05 코어 |
memory: 64Mi |
64 MiB (Mi, Gi 는 1024 단위) |
"CPU 사용률 50%" 는 requests(50m) 대비 50%(= 25m)를 뜻합니다. requests 가 없으면 HPA 가 사용률을 계산하지 못합니다.
3. HPA: 부하에 따라 Pod 수 자동 조절
HorizontalPodAutoscaler(HPA) 는 사용량을 보고 Deployment 의 replicas 를 자동으로 바꿉니다.
flowchart TB
MS["metrics-server
(노드·Pod 사용량 수집)"] --> HPA["HPA
목표: CPU 50%
최소 3 / 최대 8"]
HPA -- "replicas 변경" --> D["Deployment: guestbook"]
D --> P["Pod 3 → 6 → 8"]
P -. "사용량" .-> MS| 상황 | HPA 의 반응 (실습에서 확인한 실제 값) |
|---|---|
| 부하 발생, CPU 574% / 목표 50% | 약 20초 만에 3 → 6, 다음 확인에서 6 → 8(최대) |
| 부하 중지 | 바로 줄이지 않고 기본 5분 동안 지켜본 뒤 줄임 (들쭉날쭉한 트래픽에 Pod 가 출렁이지 않게) |
HPA 는 Pod 를 늘립니다. 노드에 자리가 없으면 Pod 는 Pending 이 됩니다. 이때 노드(서버)를 늘리는 것은 클라우드의 Cluster Autoscaler / Karpenter 같은 기능이 합니다. 관리형 K8s 를 쓰는 큰 이유 중 하나입니다.
replicas 와 충돌할 수 있습니다
HPA 가 8개로 늘려 놨는데 누군가 replicas: 3 이 적힌 YAML 을 apply 하면 3개로 줄었다가 HPA 가 다시 늘립니다. HPA 를 쓰는 Deployment 는 보통 YAML 에서 replicas 를 빼 둡니다.
4. 배포 전략
flowchart LR
subgraph R["롤링 업데이트 (7주차)"]
R1["v1 v1 v1"] --> R2["v1 v1 v2"] --> R3["v1 v2 v2"] --> R4["v2 v2 v2"]
end
subgraph BG["블루-그린"]
B1["트래픽 100% → 블루(v1)
그린(v2)은 대기"] --> B2["한 번에 전환
트래픽 100% → 그린(v2)"]
end
subgraph C["카나리"]
C1["v2 에 10%"] --> C2["문제없으면 50%"] --> C3["100%"]
end| 전략 | 방법 | 장점 | 단점 |
|---|---|---|---|
| 롤링 | Pod 를 하나씩 교체 (Deployment 기본값) | 추가 자원 거의 없음, 자동 | 잠시 두 버전이 섞임, 문제가 생기면 이미 일부 사용자가 영향 |
| 블루-그린 | 새 버전을 따로 다 띄운 뒤 트래픽을 한 번에 전환 | 전환·되돌리기가 즉시 | 자원이 두 배 필요 |
| 카나리 | 새 버전에 트래픽 일부(예: 10%) 만 보내며 지켜보고 늘림 | 문제가 생겨도 소수만 영향 | 비율 조절 장치가 필요 (Gateway API, 서비스 메시 등) |
Gateway API 로 하는 카나리 / 블루-그린
HTTPRoute 의 weight 로 비율을 정합니다. 8주차에 말한 "Ingress 에는 없던 표준 기능" 이 이것입니다.
rules:
- backendRefs:
- name: guestbook # 기존 버전
port: 80
weight: 90
- name: guestbook-canary # 새 버전
port: 80
weight: 10
| weight (기존 / 새) | 실습에서 100번 요청한 결과 |
|---|---|
| 90 / 10 | 기존 91번, 새 버전 9번 |
| 50 / 50 | 기존 51번, 새 버전 49번 |
| 0 / 100 | 새 버전 100번 → 블루-그린 전환과 같은 효과 |
비율을 사람이 손으로 올리는 대신, 에러율·응답 시간 지표를 보고 자동으로 올리거나 되돌리는 도구(Argo Rollouts, Flagger 등)를 함께 씁니다.
5. 관측(Observability) 맛보기
| 무엇을 | 이 스터디에서 | 실무에서 |
|---|---|---|
| 지표 (Metrics) | kubectl top (metrics-server) |
Prometheus + Grafana (kube-prometheus-stack), 클라우드 모니터링 |
| 로그 (Logs) | kubectl logs |
Loki, Elasticsearch/OpenSearch, 클라우드 로그 서비스 |
| 이벤트 | kubectl get events, describe |
알림 연동 (Alertmanager 등) |
| 화면 (UI) | Docker Desktop 의 Kubernetes 화면 | Headlamp: 2026년 1월 보관 처리된 Kubernetes Dashboard 의 공식 후속 |
kubectl logs 는 Pod 가 지워지면 로그도 사라집니다. 실무에서는 노드마다 로그 수집기(DaemonSet)를 띄워 중앙 저장소로 모읍니다.
6. 관리형 Kubernetes (PaaS)
지금까지는 Docker Desktop 이 노트북 안에 클러스터를 만들어 줬습니다. 실제 서비스는 보통 클라우드의 관리형 Kubernetes 를 씁니다.
flowchart TB
subgraph CSP["☁️ 클라우드가 운영"]
CP["Control Plane
apiserver · etcd · scheduler · controller
(이중화 · 백업 · 패치 · 업그레이드)"]
INT["연동: 로드밸런서(LoadBalancer Service) · 블록 스토리지(StorageClass)
· 노드 자동 확장 · IAM"]
end
subgraph ME["👤 우리가 운영"]
APP["앱: Deployment · Service · HTTPRoute · ConfigMap · Secret · HPA"]
NODE["노드 그룹 설정 (크기·개수) — 제품에 따라 이것도 클라우드가 맡음"]
SEC["보안 · 비용 · 버전 업그레이드 일정 결정"]
end
ME -- "kubectl / CI·CD" --> CP| 구분 | 직접 구축 (kubeadm 등) | 관리형 K8s |
|---|---|---|
| Control Plane | 직접 설치·이중화·백업·업그레이드 | 클라우드가 운영 |
| LoadBalancer Service | 직접 구성 (MetalLB 등) | 클라우드 LB 가 자동 생성 |
| PVC (StorageClass) | 직접 스토리지 연동 | 클라우드 블록 스토리지 자동 생성 |
| 노드 확장 | 직접 | Cluster Autoscaler / 노드 자동 관리 기능 제공 |
| 쓰는 YAML | 같음 | 같음 ← 이 스터디에서 배운 것이 그대로 통함 |
대표적인 관리형 Kubernetes
| 클라우드 | 서비스 |
|---|---|
| AWS | Amazon EKS (노드까지 맡기는 EKS Auto Mode 도 있음) |
| Microsoft Azure | AKS (자동 구성 모드 AKS Automatic) |
| Google Cloud | GKE (노드를 숨기고 Pod 단위로 과금하는 Autopilot) |
| NHN Cloud | NKS (NHN Kubernetes Service) |
| 네이버클라우드 | Ncloud Kubernetes Service |
| 그 밖의 국내 CSP | 대부분 관리형 Kubernetes 를 제공합니다 (상품명과 기능은 각 사 문서에서 확인) |
| 항목 | 고민할 것 |
|---|---|
| 클러스터 | 관리형 vs 직접 구축, 버전 지원 기간과 업그레이드 주기 |
| 노드 | 크기·개수, 자동 확장, 노드까지 맡기는 모드를 쓸지 |
| 외부 노출 | 클라우드 LB + Gateway API 구현체 선택 (Ingress-NGINX 는 지원 종료) |
| 데이터 | DB 를 클러스터 안에 둘지 DBaaS 로 뺄지 (9주차), 스토리지 종류와 백업 |
| 설정·비밀 | ConfigMap / Secret, 외부 비밀 저장소 연동 |
| 안정성 | Probe, requests/limits, HPA, 여러 가용 영역(AZ)에 분산 |
| 배포 | CI/CD, GitOps(Argo CD 등), 롤링 / 카나리 |
| 관측 | 지표·로그·알림 수집 구조 |
| 비용 | Control Plane 요금 여부(클라우드마다 다름), 노드·LB·스토리지 요금 |
7. 다음 걸음: CI/CD 와 GitOps
flowchart LR
DEV["코드 수정
git push"] --> CI["CI
(GitHub Actions 등)
빌드 · 테스트 · 이미지 push"]
CI --> REG["레지스트리
내아이디/guestbook:v3"]
CI --> GIT["설정 저장소(Git)
deployment.yaml 의 이미지 태그 변경"]
GIT --> CD["GitOps 도구
(Argo CD 등)"]
CD -- "Git 내용대로 apply" --> K8S["Kubernetes"]- 이 스터디에서 손으로 한 빌드 → push → YAML 수정 → apply 를 자동화한 것이 CI/CD 입니다.
- GitOps 는 7주차의 "파일이 진실이다" 원칙을 도구로 강제하는 방식입니다. Git 에 있는 YAML 이 곧 클러스터의 상태가 됩니다.
핵심 요약
10주차 핵심
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
① Probe liveness 실패 → 재시작 / readiness 실패 → Service 에서 제외 (배포 사고 방지)
② 리소스 requests = 예약(스케줄링, HPA 기준) / limits = 상한 (메모리 초과 → OOMKilled 137)
③ HPA metrics-server 지표로 replicas 자동 조절 (늘릴 땐 빠르게, 줄일 땐 기본 5분 지켜봄)
④ 배포 전략 롤링(기본) / 블루-그린(한 번에 전환) / 카나리(일부만) ← HTTPRoute weight
⑤ 관측 metrics · logs · events, Prometheus + Grafana, Headlamp
⑥ 관리형 K8s Control Plane · LB · 스토리지는 클라우드가, 앱 YAML 은 그대로
⑦ 다음 걸음 CI/CD + GitOps: "Git 이 진실"
참고 자료
더 깊이 보고 싶다면 (볼트 내 정리 노트):
- 쿠버네티스 개요6: kubelet 의 Probe, 노드 구성 요소
- 트러블슈팅 기법: Pending, CrashLoopBackOff, 서비스 연결 문제 진단 순서
- Vertical Pod Autoscaler (VPA): 수직 확장 개념
공식 문서:
- Probes: https://kubernetes.io/docs/concepts/configuration/liveness-readiness-startup-probes/
- Resource requests and limits: https://kubernetes.io/docs/concepts/configuration/manage-resources-containers/
- HPA: https://kubernetes.io/docs/concepts/workloads/autoscaling/horizontal-pod-autoscale/
- Gateway API 트래픽 분할: https://gateway-api.sigs.k8s.io/guides/traffic-splitting/
- Headlamp: https://headlamp.dev/